Đèo Ô Quy Hồ được gọi theo tên bản Ô Quy Hồ nằm cạnh quốc lộ 4D, nay thuộc phường Ô Quý Hồ, thị xã Sa Pa[2]. Tên bản đặt theo tiếng H'Mông, song người từ xa đến ưa gọi "Ô Quy Hồ" có phát âm nhẹ nhàng hơn. Ngoài ra, tên gọi đèo Hoàng Liên, hay đèo Hoàng Liên Sơn hình thành do đèo vượt qua dãy núi Hoàng Liên Sơn, hoặc đèo Mây do trên đỉnh đèo quanh năm mây phủ [5].

Có ý kiến cho rằng tương truyền ở vùng núi này, ngày trước hiện diện một loài chim có tiếng kêu da diết, gắn với huyền thoại về câu chuyện tình yêu không thành của một đôi trai gái. Từ đó, theo thời gian chính tiếng kêu ô quy hồ của loài chim ấy đã được đặt thành tên cho con đèo hoang dại ở độ cao gần 2000 m này.